Câu hò bên bờ Hiền Lương được viết vào năm 1956, khi tác giả đang sống xa quê. Trong thời gian từ sau khi nhạc sĩ Hoàng Hiệp tập kết ra Bắc rồi lại được chuyển vào Vĩnh Linh (Quảng Trị), ông luôn phải sống trong nỗi nhớ quê vô hạn. Ông kể lại đầy xúc động: "Nhớ lại quang cảnh ngày các má, các chị, các em tiễn đưa mình đi xuống ghe ra Vàm Sông Đốc để lên tàu tập kết ra miền Bắc... mà không cầm nổi nước mắt." Và rồi khi ra bờ Bắc sông Bến Hải ông cũng gặp những nỗi buồn của bao người dân khác quê chung hoàn cảnh: "Những ngày đầu ở bờ Bắc sông Bến Hải, tôi luôn sống với đơn vị bộ đội biên phòng ở một đồn cách cây cầu Hiền Lương chỉ vài trăm mét... Ban ngày, tôi đi dọc theo bờ, đôi mắt đăm đăm nhìn sang bờ Nam. Tôi bắt gặp nhiều em nhiều chị từ bên ấy hình như giả bộ ra sông rửa chân tay để được nhìn lại những người thân bên bờ Bắc...Tuy nhiên tôi chỉ được phép đi nửa cầu phía Bắc, vì nửa cầu phía Nam là thuộc về đối phương rồi..."[1]

Lúc đó, tâm trạng ông náo nức, muốn viết một cái gì đó nhưng lòng ngổn ngang không sao viết được, nhiều ý nghĩa cùng đến một lúc không biết chọn cái nào và bắt đầu từ đâu.

Ít lâu sau, nhạc sĩ Hoàng Hiệp phải từ giã đồn biên phòng. Một buổi chiều, ông gặp anh gác đèn biển Cửa Tùng cũng là người miền Nam tập kết ra Bắc. Nhìn cảnh biển chiều, bỗng anh gác đèn cất lên tiếng nói: "...Tôi sang đây để lại vợ con bên ấy. Có vài lần, tôi trông thấy ai như vợ con tôi đang từ trong xóm ra bãi biển để nhận cá mang ra chợ bán như hồi tôi còn ở làng bên ấy. Tôi muốn kêu to lên gọi tên vợ con tôi nhưng kêu sao cho nghe thấy được!".

Anh còn nói nhiều, nói dài nữa về những niềm đau, nỗi nhớ của mình... Sau đó, anh ngồi im như pho tượng đá, còn người nhạc sĩ như muốn khóc. Một lúc sau, hai người xuống bậc thang trở về. Ngay lúc đó, trong đầu người nhạc sĩ đột nhiên vang lên những âm thanh đầu tiên và những ý tứ lời ca mà ông khổ công tìm kiếm trong nhiều ngày qua.

Và bài hát mà nhạc sĩ Hoàng Hiệp hằng ôm ấp từ bao lâu nay đã được bắt đầu từ buổi chiều hôm đó. Bài hát Câu hò bên bờ Hiền Lương, một bài hát ra đời trong nỗi đau xót của bản thân nhạc sĩ với tâm trạng buồn nhớ của bao người khác trong thời kỳ nước nhà còn bị chia cắt thành hai miền Nam – Bắc.